Как Сам Алтман от OpenAI предефинира AGI с 5 ръководни принципа — обяснено

Докато Сам Алтман е изправен пред тежка правосъдна борба с Илон Мъск, която може да има съществени последствия за бъдещето на OpenAI, той също се пробва да насочи компанията назад към първичната й цел да построи ИИ, който е от изгода за всички, а освен за определени.

В скорошна обява в блога Алтман изложи амбициозна визия. Той разказа бъдеще, в което изкуственият разсъдък отключва човешкия капацитет в мащаб, който е мъчно да си представим през днешния ден, позволявайки на хората да имат повече независимост на избор, повече благоприятни условия и да водят по-смислен живот. Идеи, които в миналото са принадлежали на научната фантастика, допусна той, може скоро да станат действителност.

" Представяме си свят, белязан от широкоразпространен подем в мащаб, който е мъчно да се разбере през днешния ден, свят, в който самостоятелният капацитет, организацията и осъществяването нарастват доста. Много от концепциите, които сме изследвали единствено в научната фантастика, биха могли да станат действителни и множеството хора биха могли да водят по-смислен живот, в сравнение с е допустимо сега ", написа Алтман в блог пост.

Днешните огромни езикови модели (LLM), в това число тези зад ChatGPT и Grok, остават значително лимитирани до по-тесни благоприятни условия или зависят от разнообразни модели, пригодени за съответни случаи на приложимост. Изкуственият общ разсъдък, в противен случай, нормално се схваща като AI, който може да извършва необятен набор от когнитивни задания на или отвън способността на човешкото равнище. Въпреки че OpenAI преследва AGI от правенето на своята харта от 2018 година, точната формулировка на термина става все по-течна с течение на времето.

Ръководните правила на OpenAI за AGI

OpenAI обрисува следните пет правилото, които компанията да следва по пътя към AGI:

– Демократизация: Да се противопоставим на консолидацията на AI в ръцете на няколко компании, OpenAI съобщи, че ще работи, с цел да подсигурява, че основните решения за AI се вземат посредством демократични процеси и с егалитарни правила, а освен от лаборатории за AI.

– Овластяване: OpenAI съобщи, че ще работи, с цел да подсигурява, че потребителите могат надеждно да употребяват неговите AI артикули и принадлежности за все по-ценни задания. Той също по този начин акцентира нуждата от създаване и внедряване на своите AI артикули по способи, които минимизират пагубните и местни вреди, както и „ евентуалните корозивни публични резултати “, даже в случай че това значи неточност от страна на предпазливостта и облекчение на рестриктивните мерки единствено откакто бъдат събрани задоволително доказателства.

– Универсален разцвет: Въпреки че OpenAI съобщи, че желае да сложи лесни за потребление AI системи със обилни изчислителната мощност в ръцете на всеки, компанията означи, че държавните управления би трябвало да „ обмислят нови стопански модели, с цел да подсигуряват, че всеки може да взе участие в основаването на стойност “. Той също по този начин допуска, че вярата му във всеобщия разцвет оправдава устрема му да построи AI инфраструктура и да влага съществено в компютри макар относително скромните доходи.

– Устойчивост: OpenAI съобщи, че ще работи с други компании, държавни управления и гражданско общество за справяне с новите опасности, подбудени от AI, като системи, които могат да улеснят основаването на патогени или такива с разширени благоприятни условия за киберсигурност. „ Очакваме, че ще има интервали, в които ще би трябвало да си сътрудничим с държавни управления, интернационалните организации и други старания на AGI, с цел да подсигуряваме, че сме адресирали задоволително съществено привеждане в сходство, сигурност или публични проблеми, преди да продължим с нашата работа “, споделиха от компанията.

– Адаптивност: Обещавайки да бъде по-прозрачен по отношение на това по кое време, по какъв начин и за какво правилата на работа се трансформират, OpenAI изрази първичните си опасения по отношение на освобождението на тежестите на GPT-2 под лиценз с отворен код бяха неуместни, защото това докара до тактиката за итеративно внедряване.

AGI губи ли смисъла си?

Става по-лесно да се разискват несъгласията към AGI, в сравнение с ясно да се дефинира какво в действителност значи терминът. Интерпретацията на OpenAI на AGI, да вземем за пример, е в основата на обвиняванията, повдигнати от Илън Мъск против компанията в делото му. Той твърди, че OpenAI и нейното управление са се отклонили от първичната задача с нестопанска цел на организацията, визия, която той споделя, че е оказал помощ за финансирането, с цел да се подсигурява, че AGI е от изгода за човечеството като цяло.

Внимателно следеният развой към този момент е в ход, като началните причини започнаха във вторник, 28 април, в областен съд на Съединени американски щати в Оукланд.

В същото време връзките на OpenAI с Microsoft, един от неговите най-ранните поддръжници, наподобява се развива. Скорошните промени в тяхното съглашение отстраниха клаузата, която преди този момент предоставяше на производителя на Windows извънреден достъп до моделите на OpenAI. Актуализираната договорка също отстранява по-ранната уговорка за AGI, която определяше AGI като „ високо самостоятелна система, която превъзхожда хората в най-икономически жизнеспособната работа “.

Преди това OpenAI сподели, че ще назначи самостоятелен експертен панел, който публично да заявява по кое време AGI е реализиран, в който миг специфичният достъп на Microsoft ще бъде пресечен. Сега ревизираните условия допускат, че Microsoft ще продължи да получава дял от бизнеса на OpenAI, даже в случай че AGI бъде заявен до 2030 година

Говорейки в коридорите на срещата на върха на AI Impact по-рано тази година в Ню Делхи, Алтман допусна, че самите цели се трансформират. " AGI се усеща много покрай този миг. Ако бяхте попитали множеството хора преди шест години дали системите могат независимо да организират проучвания или да пишат код, това към този момент би звучало по едно и също време доста интелигентно и необятно способно ", сподели той. Той добави, че ASI или изкуственият суперинтелект може да е единствено след няколко години.

Взети дружно, тези промени, без значение дали са правни, търговски или софтуерни, акцентират една по-голяма действителност: AGI към този момент не е закрепен крайъгълен камък със постоянна формулировка. Вместо това, той от ден на ден се оформя от подтекст, тласъци и бърз прогрес, което кара термина да се усеща по-плавен и може би по-двусмислен от всеки път.